时间序列推理的互补视觉表示
🧭 多模态时序表示 · 互补视图融合
Ben-Gurion University · Google
用线图与归一化延迟嵌入两种互补视觉视图训练视觉-语言时序模型，显著提升推理精度
📌 工作参考价值（4 点）
- 在电商销量预测、广告投放趋势分析等场景，若用 VLM/LLM 做时序问答或归因，避免只给单一线图或数值序列；同时输入原始线图（保留绝对量纲）与归一化延迟嵌入图（突出形态、去量纲偏移），让模型兼顾绝对峰值和形状相似性。
- 借鉴多级特征融合：时序视觉编码时，不只把最终 patch token 接入 LLM，可把中间层特征也作为 visual token 融合，保留更细粒度时间模式，适合流量、GMV 曲线等复杂信号。
- 对跨商品/类目趋势比较，先做幅度/偏移不变表示（如归一化延迟嵌入），可降低不同 scale 带来的过拟合，提升 cross-domain 泛化。
- 工程上可直接复用 Qwen-VL 系列：把原始 line plot 和 normalized delay embedding 渲染成两张图输入，无需重新设计数值 tokenizer，改造成本低但可能带来明显提升。
MoLE：互补视觉推理的潜在专家混合
🧭 视觉推理 · 潜在专家混合
Tongji University, China · Hong Kong Polytechnic University, Hong Kong · Alibaba Group, China · University of Electronic Science and Technology of China, China
用潜在专家混合让不同 latent token 提取互补视觉证据，在相同 latent 预算下显著提升视觉推理
📌 工作参考价值（4 点）
- 在多模态商品理解/搜索中，若用 latent token 做视觉推理，避免让多个 token 共享 value projection；可给每个 latent expert 独立 routing/value，迫使它们提取互补视觉证据，减少冗余。
- 两阶段训练可直接复用：先强制视觉证据走 latent pathway 学习专业化表示，再恢复 direct visual access，无需预定义专家角色或中间视觉标签，适合业务多模态 VLM 微调。
- latent summary experts 聚合互补表征，能在固定 latent budget 下提升推理性能，适合多图/多区域商品理解等需要控制计算成本的场景。
- 用 latent-state similarity 和 attention diversity 作为诊断指标，评估多专家或多模态融合是否真正学到互补信息，有助于排查模型冗余。
从给定证据到主动采集证据：纵向医疗推理的智能体学习
🧭 Agent 工具调用与证据采集强化学习
Durham University · DAMO Academy, Alibaba Group · Hupan Laboratory · University of the Chinese Academy of Sciences
提出 CASE 角色化临床智能体与训练框架，将证据寻求策略蒸馏到 8B VL 模型，纵向医学基准超越 GPT-5.4 与 Claude Opus 4.8
📌 工作参考价值（4 点）
- 信息获取型 Agent 的环境设计：不要把用户/商品/内容/广告记录一次性塞进大 context，而是将不同数据源组织成可查询工具（历史订单、点击序列、画像、素材、库存/物流等），让策略模型自主决定“看哪个来源、看多细、是否回看”。这更适配需要跨多证据推理的选品归因、活动复盘、商品冷启动与客服工单诊断。
- 训练框架可复用：先 SFT 蒸馏 frontier 模型的多轮工具调用轨迹，再做 on-policy RL + 特权自蒸馏 + rubric-based LLM 反馈；关键是不规定工具调用顺序，只奖励最终结论质量与证据引用合理性。比固定 pipeline 更适合搜索推荐的动态环境。
- 评测结构化：以真实结果（如 ICD-10 诊断）生成问题，让 Agent 在患者环境中主动取数；业务上可由真实成交/退货/投诉/复购结果构造诊断性问题，评估 Agent 的证据检索与归因能力，而不是只看预测 AUC。
- 8B 紧凑策略模型 + 对齐过的评估条件能超过大体量 frontier 模型，说明把前端交互策略训练好，中小模型在特定业务环境中具备落地性价比。
基于SVG原语的多模态推理框架 SVGLM
🧭 多模态推理 · SVG 程序生成
University of Massachusetts Amherst · University of Michigan · University of Illinois Urbana-Champaign · Dolby Laboratories
利用SVG作为文本与图像中间表示，让VLM在推理过程中生成可解释的图像程序
📌 工作参考价值（4 点）
- 将图像编辑/生成任务转为 SVG 程序输出，可精细控制元素坐标、颜色、几何关系，适合电商商品图、广告模板自动化生成与多轮修改。
- 利用 SVG 的双重性（既是图像描述又是文本指令），可设计 “think-with-image” 链：先生成 SVG 示意图辅助推理，再输出最终答案，提升图表解析、几何布局类任务的稳定性。
- 微调范式可复用：收集领域内“文本指令-图像编辑对”，用开源 VLM 训练生成 SVG 代码，并与自然语言推理任务混合训练，避免外部扩散模型不可控。
- 在需要精确理解图像结构（如优惠券布局、信息图审核）的场景，可以要求模型输出 SVG 表示进行可验证解析，而不是依赖像素级预测。
MintAct：统一数字环境的视觉Agent模型
🧭 多模态Agent统一数字环境操作
Apple
用2B/4B/8B视觉语言模型统一UI定位、跨端多步导航与视觉工具调用，匹配各领域专用模型
📌 工作参考价值（4 点）
- 在电商/广告场景中，可将UI grounding、跨页面多步操作、外部工具调用合并为一个模型，避免为不同端或不同任务维护多个专用Agent，降低部署和迭代成本。
- 借鉴其异步RL框架：显式控制跨域训练分布，能缓解环境反馈噪声和off-policy漂移；做推荐/Agent在线学习时，可参考这种对训练分布的控制来稳定多任务协同。
- 用数百个并发实例同时服务轨迹采集和在线RL的做法，适合需要大量交互数据的电商Agent、搜索导购Agent训练。
- 2B小模型即可在OSWorld-Verified等基准上取得有竞争力的表现，对需要端侧部署的App内助手、广告落地页交互优化有直接参考价值。
PANORAMA：通过掩码候选选择实现全景接地图像描述
🧭 视觉-语言 grounding 与稠密 caption
Inria, École normale supérieure, CNRS, PSL Research University · Czech Institute of Informatics, Robotics and Cybernetics, Czech Technical University in Prague
提出 PanoCaps 基准与 PANORAMA 模型，将短语 grounding 形式化为掩码候选选择，联合生成稠密 caption 与像素级掩码
📌 工作参考价值（4 点）
- 把需要精细化对齐的任务从“直接生成”改为“从候选池中选择”：推荐/搜索中生成 item 描述、解释或文案时，可先用用户/query 表征条件化候选池，再训练选择器，降低生成难度并提升一致性。
- 联合优化生成与对齐目标：PANORAMA 同时训练 caption 生成和 mask 选择，保证文本与实体一致；推荐系统做生成式推荐或解释生成时，可把 item embedding/属性对齐作为辅助 loss，避免生成内容与实体脱节。
- 评价指标设计可借鉴 gPQ：同时量化文本与实体匹配，而不只看单一维度；多模态推荐、商品描述生成评估时可设计类似联合指标，避免只评文本流畅度忽略 grounding 准确性。
- 高效利用预训练模型：条件化冻结/预训练 segmenter 输出候选，而非端到端重训，适合业务中快速接入现有多模态编码器或分割模型，降低训练成本。
面向Cessna 172维修手册的多模态RAG降低技师检索负担
🧭 多模态RAG垂直领域知识检索
Purdue University · Clemson University
开发多模态手册检索器与MRAG流程，在维修手册上实现93.37% recall@5和87.20%答案语义相似度
📌 工作参考价值（4 点）
- 电商/推荐场景可迁移：将商品文档、规格表、示意图做多模态RAG，让客服或导购Agent同时检索图文页面，而不是只依赖文本切片，提高复杂产品问答质量。
- 评估方法可直接复用：用合成查询按信息类型（程序、图示、警告/安全、规格）分层构造测试集，能更细粒度定位检索瓶颈，比单一整体指标更利于迭代。
- 工程实现参考：把检索和生成拆开分别评估 recall@5 和生成相似度，便于定位问题是出现在召回还是生成；同时记录单查询耗时和成本，作为上线前可行性门槛。
- 多模态可解释性可借鉴：用热力图可视化页面上哪些区域被检索模型关注，可用于排查错误召回、做人工审核，也便于向业务方解释模型为何推荐某张图或某个手册页。
MOSS-VL 技术报告：面向实时交互的视觉语言模型
🧭 多模态实时交互模型
Fudan University
开源视觉语言模型 MOSS-VL 通过门控交叉注意力实现边看边说，实时主动交互能力领先
📌 工作参考价值（4 点）
- 架构借鉴：将视觉 token 移出解码序列，仅通过门控交叉注意力注入视觉信息，可显著降低首 token 延迟，适合电商直播助手的实时交互场景
- 训练策略：合成交互语料库显式监督模型何时发言、何时沉默、何时修正，可借鉴用于训练主动提醒型电商客服或直播导购 Agent
- 课程学习：实时特定训练集中在轻量最终阶段，避免破坏离线基础能力，可用于多模态模型增量训练，降低工程成本
- 主动行为：在 OmniMMI Proactive Alerting 上 66.0 vs 37.5 的性能表明模型能主动捕捉关键事件，可应用于商品状态监控、用户行为异常提醒等场景
Capek 0.5：以执行为中心的具身视觉语言模型
🧭 执行中心的能力整合与多专才合并训练
XPENG ROBOTICS
提出按执行阶段划分能力分类，通过专才强化学习与权重合并-蒸馏实现统一多模态模型
📌 工作参考价值（3 点）
- 多能力统一模型训练范式：以电商/推荐系统中的多任务（CTR/CVR/搜索相关性）为类比，可先将不同目标视为独立能力，各自训练专才（LoRA或独立头），再通过权重合并（如TIES-Merging）和路由蒸馏，得到一个推理开销低且保留各能力的统一模型，避免多模型部署。
- 可验证奖励驱动的强化学习：在推荐Agent的动作决策（如消息推送时机、优惠券发放）中，可利用规则/仿真环境构造可验证奖励（收益提升、转化率），直接用RL优化LLM策略，减少对人工偏好标注的依赖。
- 能力分类指导系统设计：借鉴“空间推理、时间理解、动作指导、状态验证”的分类，在搜索推荐Agent中显式拆分出“用户意图理解、长短期兴趣建模、item选择、结果验证”等子能力，使数据构造和训练目标更聚焦。
零样本视觉-语言控制中的视觉接地评估与守护
🧭 VLM视觉接地评估与选择性辅助守护
BARCELONA Supercomputing Center · Universidad Pontificia Comillas · University of Florida · University of Illinois Urbana-Champaign · LUXEMBOURG Institute of Science and Technology
输入消融实验揭示VLM零样本控制普遍缺乏视觉接地，对称共识守护者实现可靠危险检测。
📌 工作参考价值（3 点）
- 对称一致性守卫：利用原始与反射视图的预测一致性筛选可靠模型，此法可迁移至多模态推荐——对商品图片做水平翻转等增广，检查模型预测是否对称，剔除不一致的弱模型，提升鲁棒性。
- 输入消融诊断：盲图、重复帧、反射对照组能暴露模型是否真正利用视觉信息。可仿照设计线上诊断流程，排查推荐模型中的模态依赖假象。
- 选择性弃权策略：在低置信度时弃权，牺牲少量覆盖换取大幅精度提升，适合电商风控或内容审核等高风险场景，结合阈值动态开关辅助决策。
面向Agent图像编辑的领域约束候选选择：阴影去除案例
🧭 Agent驱动的约束式生成编辑
Stony Brook University · UNC Charlotte
将阴影物理先验注入Agent候选生成-评估-筛选流程，显著减少幻觉并提升编辑可靠性
📌 工作参考价值（4 点）
- 借鉴 Agent 多轮候选生成-评估-筛选流程，用于自动生成商品图文描述或广告文案：先让 LLM 生成若干候选，再用领域评估器（基于规则或轻量分类器）过滤并选择最佳，提升内容质量。
- 将业务先验（如商品属性准确性、合规性）固化为提示与评估准则，约束生成模型，减少幻觉，类似论文中用物理先验界定“阴影是光照效果”的做法。
- 引入重试机制与快速失败检测：评估器发现明显违规（如描述与图片不符）时立即重新生成，避免低质输出流入下游。
- 评估器可采用轻量级方案（如关键词匹配、属性校验）替代复杂模型，在候选筛选阶段快速剔除明显错误，降低整体审核成本。
VideoSearch-R1：基于软查询精炼的迭代视频检索与推理智能体
🧭 强化学习驱动的多模态检索智能体与查询精炼 ★ 深度解读
KAIST · Korea University
提出软查询精炼（SQR）在连续潜在空间细化搜索查询，通过强化学习联合优化视频检索与细粒度推理
📌 工作参考价值（4 点）
- 在电商搜索中，对未命中或模糊查询，可使用软查询精炼（SQR）替代文本改写，直接在嵌入空间生成少量连续向量调优检索结果，避免硬改写引入的语义噪声和过长Token消耗。
- 检索-验证-精炼的迭代循环（检索→核对匹配→若失败则触发精炼）可引入到商品搜索或推荐系统，实现自主纠错，提升长尾query的召回与精度。
- 强化学习（GRPO）联合优化检索精炼与下游任务（如点击预测、排序）的思路可复用：设计任务级奖励（如检索召回率、点击奖励），端到端训练查询表示生成策略。
- 软查询精炼只需少量额外Token（实验中仅8个），工程开销小，适合嵌入现有双塔检索或向量召回架构，作为在线查询优化插件。
知识与视觉问答基准的陷阱识别与修复：审计、修正与增强
🧭 知识增强多模态评测审计与修正
Rensselaer Polytechnic Institute · AT&T Chief Data Office
系统审计KB-VQA基准，揭示答案可推导性、问题约束和视觉设定上的缺陷，并引入修复与多实体增强协议，纠正模型评价偏差。
📌 工作参考价值（4 点）
- 在电商多模态知识增强场景（如商品问答、属性校验）中，应审计知识库覆盖率与答案可推导性，避免模型利用图像或语言捷径获得高准确率。
- 引入多实体同框的视觉歧义样本（如多商品对比图），迫使模型执行显式的视觉-知识对齐，而非简单匹配单个显著实体。
- 评估指标不能仅依赖端到端答案匹配，需设计中间过程验证（如检索证据、推理步骤）来衡量真实推理能力，模仿“审计-修复”流程。
- 构建知识增强推荐或Agent时，用受控的困难样本集进行诊断测试，发现模型在通道、推理上的薄弱环节。
InstanceControl：无需实例标注的可控复杂图像生成
🧭 多实例可控图像生成 · VLM自动对应
Harbin Institute of Technology · HUAWEI Noah's Ark Lab
利用视觉语言模型自动建立文本描述与视觉条件间的实例级对应，消除手动标注，实现高保真多实例控制。
📌 工作参考价值（4 点）
- 在电商商品场景图生成中，可使用类似VLM自动将多个商品文本描述映射到布局或深度图的区域，省去人工标注实例位置。
- 自适应掩码细化策略可通过迭代校正噪声掩码，提升多实例属性绑定的准确性，可迁移至多模态检索或视频中目标跟踪任务。
- 该方法展示了如何利用大规模预训练模型（如VLM）的零样本能力进行细粒度对齐，可为电商广告创意生成中的多物品组合控制提供参考。
- 工程实现上，可将VLM作为插件集成到现有扩散模型生成流程中，无需额外训练数据集，降低部署成本。
ScAle：注意力头缩放作为最小适配器增强VLM空间推理
🧭 轻量级激活缩放适配视觉语言模型
Northeastern University · EmbodyX Inc. · Zhejiang University
仅用1K可训练标量系数缩放冻结VLM层激活，空间推理准确率相对提升最高134.1%
📌 工作参考价值（4 点）
- 极低资源任务适配：冻结整个VLM，只训练少量标量系数（~1K参数量）即可注入空间推理能力，适合快速部署到电商多模态场景（如商品图片方位判断、广告布局合理性校验）。
- 激活重标定策略：针对最后token的注意力输出和MLP激活做缩放，无需改动模型结构，可直接套用于现有推荐系统中的视觉理解模块（如对商品详情图进行空间关系抽取）。
- 原始能力无损：缩放系数被有界约束，避免灾难性遗忘，在非空间VQA上保持原有性能，这对线上多任务系统（如同时做商品质量评估和空间描述）很关键。
- 架构无关的即插即用：该方法不依赖特定注意力实现，可作为轻量级适配层嵌入任一Transformer，适合探索在图文匹配、虚拟试穿对齐等推荐链路环节快速实验。
面向计算机使用代理的自主评估强化学习
🧭 GUI代理 · 噪声奖励校正
Ukrainian Catholic University, Lviv, Ukraine
用VLM作为不完美奖励信号的噪声校正强化学习，显著提升GUI代理任务成功率
📌 工作参考价值（4 点）
- 当无法获得密级标签或手工奖励函数时，可以用 VLM 评分作为稀疏奖励 来微调 Agent 策略，尤其适合 UI 自动化、电商操作机器人等视觉交互任务
- 将 VLM 评估视为带噪声的二元信道，推导出 PPO 中噪声校正奖励估计器 的思路，可直接复用于任何依赖不完美自动评估的 RL 训练，例如用 LLM 评价对话质量或推荐解释
- 实验中噪声校正明显优于直接用原始评估奖励（+5.1pp），提示在落地类似方案时，必须对自动评估器的误差建模，否则噪声会削弱甚至误导策略学习
- 该方法解耦了任务评估与策略优化，意味着可以 快速迭代评估器（更换 VLM 或 prompt）而不必改动 Agent 架构，适合工程中渐进式优化
闭环三元协同长视频生成
🧭 闭环视觉-文本-记忆协同的长视频生成
University of Science and Technology of China · Microsoft Research Asia
提出闭环视觉-文本-记忆协同框架，迭代纠正多镜头视频中的身份漂移和不一致问题。
📌 工作参考价值（4 点）
- 闭环验证-修正机制可迁移至生成式推荐：在生成商品描述、个性化文案时，引入VLM或评判模型检测生成结果与用户意图/商品属性的一致性，自动触发重生成或prompt refine。
- 实体中心记忆可用于用户/物品的长期建模：维护一个可更新的记忆状态，追踪实物属性变化和跨会话演进，提升多轮对话推荐或个性化agent的连贯性。
- 代理框架分解复杂生成任务：将长流程切分为规划-执行-批评的agent回路，可用于搜索推荐流程自动化（如自动选品、策略组合、创意生成）。
- 多镜头一致性优化思想可用于视频广告素材生成：确保多个片段中品牌/产品视觉元素保持一致，提升广告质量。
实时视觉交互模型 JoyAI-VL-Interaction：主动决定何时开口的 8B 级视觉模型
🧭 实时视觉交互模型与系统 ★ 深度解读
JD.com
首个开源、视觉驱动的 8B 交互模型，每秒自主决策沉默/响应/委派，并配有完整部署系统。
📌 工作参考价值（4 点）
- 直播电商 / 短视频场景可直接借鉴其“每秒决策”范式：模型持续观看直播画面，自主判断何时插话（如提醒主播漏讲卖点、解答观众疑问），而非被动等待提问。
- 委派（delegate）机制适合复杂任务卸载：当需要生成商品详情页 HTML 或调用知识库时，模型可暂停实时应答，将任务异步交给后端大模型或 Agent，保持对用户的实时存在感。
- AdaCodec 视频压缩策略（对可预测帧仅用约 16 个 token）大幅降低长流推理成本，适合需要连续观看监控或直播的电商 AI 助手，降低部署门槛。
- 分层记忆设计（短期缓冲 + 中期文本摘要 + 长期归档）与 vLLM 前缀缓存结合，实现两小时以上连续视频的亚秒级延迟，可用于需要长上下文记忆的在线导购或客服会话。
统一视觉语言模型的视频审核系统
🧭 多模态视频理解与工业级内容审核
Bytedance
用统一VLM生成策略感知字幕实现可解释视频审核，将违规泄露和过度封杀相对降低42.7%与37.0%
📌 工作参考价值（4 点）
- 可解释中间表示：在电商直播/短视频审核中，可训练VLM生成与平台规范对齐的自然语言描述，直接作为审核依据，方便人工抽检和规则迭代。
- 统一骨干替代多模型：借鉴UNIVID用单一VLM取代上千个专用分类器，大幅降低工程维护成本和计算资源，适合策略频繁变更的电商场景。
- 多级漏斗架构：结合缓存嵌入和风险信号融合，先粗筛后精审的思路可迁移到商品内容安全、侵权过滤等链路，平衡效率与精度。
- RAG增强召回：在审核决策时检索历史违规案例作为参考，有效减少遗漏，类似方法可用于商家资质审核或评论风控中的相似违规召回。
结构化缺陷定位：文本到图像模型的诊断与对齐
🧭 结构化缺陷诊断与生成式模型对齐
Tsinghua University · Kuaishou Technology · University of British Columbia · Vector Institute · South China Normal University
将缺陷定义为(位置,类型,原因,重要性)元组，提出结构化集合预测与空间奖励对齐框架
📌 工作参考价值（4 点）
- 结构化诊断范式：将模型输出缺陷建模为实例级元组（位置、类型、原因、重要性），可借鉴用于推荐系统的错误分析，例如生成式推荐的item质量问题，用VLM对推荐结果进行定位与归因，构建结构化反馈数据提升模型可解释性。
- 空间化奖励设计：BoxFlow-GRPO将检测到的缺陷区域转化为带重要性权重的空间奖励，用于扩散模型微调。电商场景中可对商品图片生成缺陷进行类似的像素级反馈，指导文生图模型优化商品展示效果。
- VLM作通用诊断器：使用视觉语言模型直接输出结构化预测，绕过传统热力图回归的局限性。在多模态Agent或内容审核中，可将VLM的缺陷检测能力迁移到视频帧、广告素材的异常定位与原因解释，为自动化优化提供信号。
- 诊断到对齐的闭环：将诊断与模型优化无缝衔接，可参考其思想在推荐系统中构建“问题诊断→奖励修正→策略更新”的迭代框架，例如用LLM分析用户负反馈并转化为强化学习奖励来调整排序模型。